Gray được nuôi dưỡng tại Glasgow, Kentucky, con lớn thứ ba trong số sáu người con của Lois và James Norris Gray. Ông bắt đầu sự nghiệp đại học của mình tại Đại học Emory ở Atlanta nhưng trở về nhà để giúp đỡ công việc kinh doanh của gia đình khi cha ông qua đời vào năm 1972. Sau đó, ông theo học tại [[Đại học Vanderbilt, đi lại giữa Glasgow và Nashville trong khi lấy bằng lịch sử.[5] Sau khi tốt nghiệp năm 1975, ông tham gia kinh doanh xây dựng gia đình toàn thời gian.

Năm 1996, sau hơn 20 năm hoạt động trong ngành xây dựng, Gray đã chấp nhận lời đề nghị trở thành thành viên Loeb tại Trường Đại học Thiết kế Harvard.[6]

Chương trình học bổng Loeb được tạo ra để các học viên thành đạt "tạm dừng, nghiên cứu và suy ngẫm tại một trường đại học tuyệt vời [để] cho phép những người thiết kế và xây dựng các thành phố của chúng ta trở về với sự sáng suốt và năng lượng mới."[7]